Day 9 - 多類別分類

概述

昨天我們介紹了二元分類，在現實生活中，更常見的是多類別分類問題。因此，今天我們將探討多類別分類問題的相關概念。

多類別分類問題

多類別分類（Multiclass Classification）顧名思義是一種分類問題，但它不僅僅是二元分類的延伸，二元分類可以視為多類別分類的一種特例。舉例來說，如果你拍了一張照片，我們可以從照片中辨識出車子、房子、行人、郵筒、雲等不同的類別，這就是一種多類別分類問題。

多類別分類的計算方法

多類別分類的計算方法可以被視為將問題拆解為多個二元分類問題。常見的多類別分類方法主要有三種：

非我族類（One-vs-All）

這種方法是讓每一個分類器 ( g_i ) 來區分第 ( i ) 類與其他類別，將其他類別視為一體，檢查該對象是否屬於該類別。這樣做可能會導致一些錯誤，例如有些灰色區塊同時屬於兩類，或某些黑色塊不屬於任何一類。

個別對決（One-vs-One）

這種方法是讓每一個分類器 ( g_{i,j} ) 負責區分某兩個類別。這個分類器可能會切割到無關的類別，但這沒關係，因為它的目標只是要區分那兩個類別。然而，這樣的切割仍然會有問題，例如中間的黑色三角形區域仍然沒有被分類到任何一個類別。

勝者為王（Winner-Takes-All）

由於前兩個方法都有一些問題，大多數情況下我們會採用勝者為王的方法。這個方法基本上還是採用第一個方法，但如果遇到兩個結果都大於0的情況，我們選擇較大的那一個。例如，若 ( g_1 ) 和 ( g_2 ) 的結果都大於0，且 ( g_1 ) 的值較大，那它就屬於第一類。這種判斷方式也叫做「One-Versus-the-Rest」或「One-Against-All」。

結論

多類別分類是機器學習中的重要課題，常見的方法包括非我族類、個別對決和勝者為王。不同的方法各有優缺點，選擇合適的方法取決於具體的應用場景和數據特徵。